SWE-Trail:历史引导的编程 Agent 轨迹采集
🧭 Agent 轨迹采集 · 历史引导分配 ★ 深度解读
University of Connecticut · Ant Group
用历史轨迹引导采集资源分配但不进入 agent 上下文,训练收益提升 2.33/1.60 pp
📌 工作参考价值(4 点)
- 可直接迁移到电商/导购/搜索 Agent 的轨迹采集:为每个 task 维护 prior trajectories bank,但不要把这些历史塞进 agent context;用历史作为 collector 侧信号,让 agent 从普通上下文生成动作,避免模型在测试时依赖不存在的外部 advice。
- 做分支对比采样:在历史检测到的关键状态,从同一 checkpoint 并行短执行两个候选动作,用环境反馈/奖励/测试信号选择路线;保留 agent 原始 reasoning/actions,删除未选分支和 collector 私有事件,保证训练轨迹为连续且无外部信息的单条 rollout。
- 优先在 mixed histories 上投入采集:成功/失败都有的任务最值得多做分支比较,stable-solved 和 never-solved 收益有限;历史规模 5 条 prior attempts 已接近饱和,继续加到 10 条 token 成本增加 66% 但收益很小。
- 评估数据采集方案时,值得做 H0 和随机化消融:H0 控制采集管线本身,random detection/random retention 分别检验“在哪里比较”和“保留哪条路线”,能避免把 resolved 轨迹数量误当成下游训练价值。
编码 Agent 的自适应技能粒度:运行时路由与宏到微恢复
🧭 Agent 技能粒度自适应与恢复执行
Shanghai Jiao Tong University · Kuaishou Technology Co., Ltd. · University of Warwick
将技能粒度作为条件化动作抽象策略,通过特征控制器与宏到微恢复提升编码 Agent 鲁棒性
📌 工作参考价值(4 点)
- 在推荐/搜索 Agent 工作流中,把“宏技能”(如一次生成完整推荐理由+商品卡片+优惠文案)与“微工具”(分别调用召回、排序、文案模型)纳入同一路由策略,根据 query 复杂度、用户状态和上下文选择执行粒度;若宏技能失败或不符合预期,自动降级到微工具补齐,避免整链路失败。
- 可借鉴其 feature-based 控制器思路:不依赖 LLM 做每个步骤的粒度判断,而是用用户/任务/状态特征(如 query 长度、类目数、历史是否出现矛盾信号、置信度)训练轻量分类器或规则,决定走宏模板还是微调用,降低延迟和成本,适合高 QPS 电商搜索/推荐消息场景。
- 引入有限状态执行器和显式的 transition correctness / route match 过程指标,对业务 Agent 做可观测、可回滚的执行管理;在 push 文案生成、搜索 query 改写等场景中,可以跟踪“宏采纳率”“失败恢复率”来评估系统鲁棒性而非只看最终转化。
- 局限:论文面向 coding agents,缺少电商语料和在线指标;迁移时需重定义技能库和 verifier,但执行抽象与回退机制可复用。
AgSpec:在编码代理流水线中突破检索型投机解码极限
🧭 编码多智能体流水线的检索式投机解码加速
KAIST
AgSpec通过三层语料检索与按Agent自适应草稿长度,将编码Agent流水线生成吞吐提升至自回归解码的4.37–4.76倍
📌 工作参考价值(4 点)
- 将多轮Agent交互历史、工作区文件、全局模板分层构建检索库,能提高生成式任务(如商品标题/详情、客服回复)中投机解码的draft命中率;索引时把原文转换为最终输出格式,避免格式不匹配导致验证拒绝。
- 不同Agent或生成任务的接受长度差异大:离线profile每个Agent/Task的draft长度上限,线上根据acceptance/verification feedback动态调长或调短,可避免固定草稿长度带来的overhead。
- 投机解码在batch=1和batch=16下都有显著吞吐提升,适合电商Agent低延迟交互和高并发批式生成两类场景;可在内部LLM推理框架中加入检索草稿模块,优先尝试session级检索再混合全局。
- 该方案不依赖额外训练,通过工程化语料与策略即可提升,适合现有Agent流水线快速集成,尤其是多轮、多智能体调用LLM的自动生成系统。
编码 Agent 执行框架组件设计的实证研究
🧭 Agent 执行框架组件消融与设计
UMass Amherst · Emory University · UNC Charlotte · Zoom
系统性消融编码 Agent 的上下文管理、规划与动作空间,揭示模型与预算相关的组件设计规律
📌 工作参考价值(4 点)
- 上下文管理策略可直接借鉴:先用规则过滤冗余内容,再按需用 LLM 摘要,能有效控制 token 成本;避免实现“可恢复的删减”机制,因为模型几乎不会去调用,徒增工程复杂度。
- 动态规划开关:强模型上规划主要降低 token 消耗而非提升精度,弱模型上才是精度支撑。可在推荐/搜索 Agent 中按模型能力决定是否启用规划步骤,平衡效果与成本。
- 动作空间设计遵循“够用即可”:对工具使用能力较弱的模型提供结构化预定义工具,对 bash 能力强的模型只给命令行接口,既提升成功率又降低成本,尤其适合命令密集型任务。
- 组件解耦的消融框架值得复用:固定执行循环,独立替换上下文、规划、动作模块,可快速定位系统瓶颈,适合在电商 Agent 中进行模块化调优。
Dream-RSI:通过演化世界实现递归自我改进的探索框架
🧭 Agent 探索策略递归自改进
Google · University of Maryland, College Park · Google Deepmind · University of Virginia
用历史发现树构建重放模拟器,以离线低成本反馈迭代优化探索策略,降低发现成本并提升质量
📌 工作参考价值(4 点)
- 把探索策略从底层 coding agent 中拆出,做成可编程 orchestration layer;业务中的 Agent 搜索/推荐策略也可分离“生成/排序核心”与“探索策略”,便于低成本切换和迭代。
- 利用已积累的发现树/用户交互轨迹构建 replay simulator,进行 off-policy 评估,避免每次探索策略变更都跑线上长链路;对电商搜索、推荐 Agent 的策略选型、prompt/工具调用组合优化尤其划算。
- 采用 log replay + dreaming 方式生成即时低延迟反馈,适合需要大量策略试错的场景(如广告出价、商品推荐 query 生成),可降低在线 A/B 成本。
- 自改进 loop 中将新发现不断并入 simulator pool,形成持续扩大的离线评估环境;对应业务可把每次线上实验数据沉淀为可复用的策略仿真器。
SWE-Prime:用更少轨迹实现更好性能
🧭 轨迹数据筛选与分段SFT
Sun Yat-sen University · Huawei Cloud Computing Technologies Co., Ltd. · Chongqing University
提出多粒度两阶段SFT数据筛选,轨迹级选10%高质量子集并片段级屏蔽损失,训练效果超全量数据
📌 工作参考价值(4 点)
- 在电商导购/售后 Agent 的轨迹 SFT 中,可直接借鉴“成功轨迹 ≠ 优质监督”的假设:先按结果质量、过程质量、代表性筛掉含无效操作或高风险步骤的样本,再用小比例高质数据做 SFT,实验显示 10% 数据可超越全量;适合业务上语料噪声大、训练成本敏感的场景。
- 分段级 loss masking 很实用:保留完整轨迹作为上下文,但只让“对最终成交/解决方案有正向贡献、可学习且低风险”的 segment 参与梯度回传,能避免模型模仿冗余点击、重复搜索或危险操作。
- 三段评估指标可迁移:贡献度(是否影响最终结果)、可学习性(Agent 能否从该步骤归纳出策略)、风险(是否会放大幻觉/违规动作)可作为构建推荐/搜索 Agent 轨迹语料的自动过滤信号。
- 若是多步商品推荐/搜索召回 Agent,可按语义将轨迹切分为意图识别、query改写、候选筛选、解释推荐等片段,复用其片段级数据选择框架,只优化关键决策段。
Ouroboros:通过审阅提交实现自我演化的前沿编码 Agent
🧭 自我演化 Agent · 核心演化与安全控制 ★ 深度解读
Lomonosov Moscow State University · Skolkovo Institute of Science and Technology · Joi Lab · FusionBrain Lab at AIRI · HSE University
一个自我修改运行时(harness)的编码 Agent,通过审阅提交通道持续演化,在 Terminal-Bench、OSWorld 等基准上取得最优结果。
📌 工作参考价值(4 点)
- 在电商推荐 Agent 中采用经验驱动演化:把线上故障、用户反馈、任务执行痛点自动转换为改进待办,经审查后修改 Agent 的工具链或提示词,形成自我优化的闭环。
- 实施多模型审查门控对抗自我修改风险:对 Agent 主动提交的代码/配置变更进行强制 diff 审查、指纹校验和 quorum 投票,防止模型自行绕过安全约束(如越权调用 API 或改变路由)。
- 将模型路由、宪法文件、紧急停止路径设为受保护的“治理表面”,通过外部预算、操作员通道和 /panic 信号保持人类权威,避免 Agent 演化过程中削弱控制。
- 借鉴长期运行 Agent 的持久化记忆层设计:维护故障模式注册表(error class → root cause → structural fix),让推荐系统 Agent 能将一次性错误提升为结构性改进,持续提升服务质量。
性能优化基准对编码代理的可靠性审计
🧭 性能优化 · 基准审计
Singapore Management University · Shanghai Jiao Tong University
审计三大代码优化基准,发现运行时波动、评分规则偏差和任务饱和导致代理排名不可靠
📌 工作参考价值(4 点)
- 构建电商/Agent的离线评估流水线时,需确保运行环境一致,多次重复实验以控制随机波动,类似本文对跨机器回放稳定性的检查
- 评分规则对最终排名影响巨大,应避免像SWE-efficiency那样给极端任务过高权重(如最差任务占58%–83%分数),导致整体分数被少数任务主导
- 当多个模型/代理已在大部分任务上超过基线(如99.8%任务击败未优化代码),聚合排名掩盖剩余差距,应转向逐任务诊断,识别仍存在可靠改进空间的任务
- 在报告Agent能力时,可借鉴「可重放有效任务」的概念,只保留那些参考补丁在不同环境下运行稳定的任务,以提供高信噪比的评估信号
SWE-Together:交互式用户会话中评估编码智能体
🧭 编程Agent交互式协作评估
Meta
从真实用户会话构建多轮编程基准,用反应式模拟器重放交互,同时衡量代码正确性和所需干预次数。
📌 工作参考价值(4 点)
- 交互式Agent评估范式:可直接迁移到电商推荐Agent的评估中,构建多轮用户模拟器,根据用户偏好和反馈调整推荐,同时衡量推荐成功率与用户修改轮数,评估协作效率。
- 真实会话驱动的基准构建:借鉴其从海量真实交互记录中筛选可重放会话的方法,在电商场景中收集用户与推荐系统的多轮对话,构建可复现的评估集,避免人工设计偏差。
- 反应式用户模拟器设计:利用LLM模拟用户意图保持和条件反馈,用于离线测试推荐Agent的意图理解与纠错能力,降低人工评测成本。
- 效率与效果联合指标:不仅关注最终推荐准确率,也追踪达到满意结果所需的交互轮数,更全面反映用户体验,适合用于优化多轮推荐策略。
编码代理仓库指南的探测-精炼调优
🧭 Agent 上下文指导自动优化
Williams College
通过合成bug探测迭代优化仓库指南,使编码代理解决率提升4.7个百分点以上,增长源于覆盖扩大而非单一补丁精度提升
📌 工作参考价值(4 点)
- 知识库迭代优化范式:借鉴 probe-and-refine 思路,在电商搜索、推荐等 Agent 系统中,通过自动生成探测任务(如合成搜索请求、推荐场景)诊断当前知识/指南的缺失,再用 LLM 自动生成补丁,实现领域知识的低成本持续优化。
- 提升覆盖率 > 提升单点精度:实验表明性能提升来自让 Agent 触达正确信息源的比例增加,而非每次决策的准确率。在构建推荐/搜索 Agent 的上下文或工具描述时,更应关注覆盖哪些流程、边界条件,确保 Agent 能找到关键信息,而不是过度微调每一步的精准度。
- 轻量级调优,免于复杂 Agent 循环:调优过程仅使用单次 LLM 调用生成补丁,无需运行完整 Agent 流程,可大幅降低迭代成本。对于需要给 LLM Agent 配置系统指南、业务规则等文本的场景,可采用类似方法快速演进,无需复杂仿真环境。
- 步数预算与指导协同:更长的推理步骤只有在具备良好指导时才能正向收益。设计推荐/搜索 Agent 时,若允许动态步数,需同步提供高质量的上层指导,否则多余步数反而可能引入噪声或偏离任务。
SaaSBench:评估编码代理在长周期企业SaaS工程中的能力边界
🧭 编码代理评估 · 长周期SaaS基准 ★ 深度解读
University of Science and Technology of China · AMAP, Alibaba Group
首个面向真实企业级SaaS生成的评估基准,揭示当前代理主要瓶颈在于多组件系统集成而非代码逻辑
📌 工作参考价值(4 点)
- 在构建电商业务系统或其他内部工具的 Agent 时,采用依赖感知的 DAG 测试套件进行端到端验证,避免仅用单元测试忽略跨组件交互错误。
- 长周期任务中优先确保基础部署和系统连通性,再进入复杂业务逻辑;95% 的失败发生在系统未能稳定运行阶段,提示 Agent 工作流应加入环境自检与自动修复环节。
- 借鉴 PRD + 歧义消除知识库(KB)的输入设计,在需求文档中显式化模糊边界规则,可用于电商商品、订单、权限等复杂业务逻辑的需求澄清,减少 Agent 理解偏差。
- 失败模式分析表明,代理容易“过早自信”而提前停止,可设计阶段性验证门控,类似 DAG 前置依赖检查,强制 Agent 完成基础工程后才能进入深层次业务实现。